洛阳因地处洛水之阳而得名，是国务院首批公布的历史文化名城。以洛阳为中心的河洛地区是中国古代文明的发祥地。远在五六十万年前的旧石器时代，已有先民在此繁衍生息。新石器时代（距今一万多年前至四五千年前），黄河中游两岸及伊、洛、瀍、涧等河流的台地上，分布着许多氏族部落，新中国成立后在洛阳一带发现的孙旗屯遗址、王湾遗址、矬李遗址等近200处聚落遗址，便是当时人们居住、生活的地方。禹划九州，河洛属古豫州地。洛阳是夏王朝立国和活动的中心地域，太康、仲康、帝桀皆以斟鄩（今偃师二里头）为都。公元前1600年，商朝建立。商汤建都西亳（二里头遗址东北约6千米）。商汤之后的数代帝王均以此为都，前后累计200余年。公元前1046年，西周代殷后，为控制东方地区，开始在洛阳营建国都。周公在洛水北岸修建了王城和成周城，史称成王“初迁宅于成周”“定鼎于郏鄏”，曾迁殷顽民于成周，并以成周八师监督之。当时洛阳称雒邑、新邑、大邑、成周、天室、中国等，亦称周南。周平王元年（前770年），周平王东迁洛邑，是为东周，自此，有25个国王都居洛阳，前后历经500余年之久。秦庄襄王元年（前249年），秦在洛阳置三川郡，郡治成周城。汉王元年（前206年），项羽封申阳为河南王，居洛阳。汉高祖五年（前202年），刘邦建汉，初都洛阳，后迁长安，改三川郡为河南郡，治洛阳。辖洛阳、河南（汉置，治王城）、偃师、缑氏、平（偃师西北）、平阴（孟津东北）、新成（伊川西南）、榖成（新安东）及巩、荥阳、新郑、中牟、开封等22县。汉武帝置十三州部刺史，河南郡属司隶。西汉末年，王莽篡政，改洛阳为宜阳，设新室东都和中市。汉光武建武元年（25年），刘秀定都洛阳，改洛阳为雒阳，建武十五年（39年），更河南郡为河南尹。黄初元年（220年）年，魏文帝曹丕定都洛阳，变雒阳为洛阳，设司隶校尉部。泰始元年（265年），西晋代魏，仍以洛阳为都。太延二年（436年），北魏在洛阳置洛州，太和十八年（494年）孝文帝迁都洛阳。东汉、曹魏、西晋、北魏都洛共计330余年。
隋开皇元年（581年），在洛阳置东京尚书省；次年，置河南道行台省；三年，废行台，以洛州刺史领总监；十四年，于金墉城别置总监。大业元年（605年），隋炀帝迁都洛阳，在东周王城以东，汉魏故城以西18里处，新建洛阳城。同年，改洛州（东魏改司州置）为豫州，三年又改河南郡，十四年复置洛州，辖河南、洛阳、偃师、缑氏、阌乡、桃林、陕、熊耳、渑池、新安、巩、宜阳、寿安、陆浑、伊阙、兴泰、嵩阳、阳城等18县。
唐代自高宗始仍以洛阳为都，称东都。武德四年（621年），置洛州总管府，辖洛州、郑州、熊州、榖州、嵩州、管州、伊州、汝州、鲁州等9州，洛州辖洛阳、河南、偃师、缑氏、巩、阳城、嵩阳、陆浑、伊阙等9县。贞观元年（627年），分全国为十道，洛阳属河南道。显庆二年（657年）置东都。开元元年（713年），改洛州为河南府。开元二十一年（733年），于洛阳置都畿道。天宝年间，改东都为东京。洛州、河南府均治洛阳。
武则天光宅元年（684年）始，改东都为神都，对都城进行扩建，修建了明堂、万国天枢等。武则天称帝后，改国号为周，定都洛阳，以更大的规模开凿龙门石窟，奉先寺卢舍那大像龛便是盛唐雕刻艺术的辉煌代表。武则天还令薛怀义为白马寺住持，大规模整修白马寺。唐代，中国佛教臻于鼎盛，佛教史上势力最大、影响最广、流传最久的教派禅宗在洛阳形成。唐玄宗长期居洛，曾敕令大修中岳庙，并赐风穴寺（在今汝州）内佛塔名七祖塔。
唐天祐四年（907年），唐室亡祚，其后中原地区相继出现了后梁、后唐、后晋、后汉、后周五个短暂的王朝，史称五代。其中，后梁、后唐、后晋均曾都洛阳，后汉、后周以洛阳为陪都。这一时期洛阳仍是全国政治、经济、文化的中心。
以上计夏、商、西周、东周、东汉、三国魏、西晋、北魏、隋、唐（含武周）、后梁、后唐、后晋等十三朝以洛为都，洛阳成为中国建都时间最长的城市。此外，新莽末年更始帝、隋末王世充、唐中叶安禄山都曾在洛阳立国。
宋以洛阳为西京，置河南府。朝廷设国子监于洛阳，名臣遗老和文人学士多会于此，赵普、吕蒙正、富弼、文彦博、欧阳修都曾居住洛阳。理学家程氏兄弟、邵雍等，在洛阳著书讲学。司马光在洛阳完成了史学巨著《资治通鉴》。
金代定洛阳为中京，改河南府曰金昌府，并河南县入洛阳县。时因洛阳旧城毁弃，便在隋唐城东北角另筑新城，周围不足9里，即今日老城之前身，它仅是隋唐洛阳城的一小部分而已。
自元代始，洛阳不复为京，降为河南府治。明代河南府辖1州即陕州和洛阳、偃师、巩县、孟津、登封、新安、渑池、宜阳、永宁、嵩县、灵宝、阌乡、卢氏、伊阳等14县，又是伊王和福王的封地。清代洛阳仍为河南府治。
1912年，民国建立，废河南府，设河洛道，道尹公署驻洛阳，辖洛阳、偃师等19县。1920年，直系军阀吴佩孚盘踞洛阳，在洛阳设置了两湖巡阅使公署和陆军第三师司令部。1923年，河南省长公署适于洛阳，洛阳成为河南省会。1932年，日军进攻上海，国民党政府定洛阳为行都，并一度适洛办公。“七七事变”后，华北大部分地区沦陷，洛阳成为北方抗日前哨，1938年，国民党第一战区长官司令部驻洛阳。1939年秋，河南省政府再次迁洛，洛阳第二次成为河南省会。
1948年，洛阳解放，洛阳市人民民主政府成立，析洛阳县城区为市，与洛阳县并置，同属豫西一专署管理。此后，洛阳建置经历了地区管市县、地区和市并行、市管县区三个不同的发展时期。1949年12月，洛阳市人民民主政府改称洛阳市人民政府。1954年，洛阳市被定为国家重点建设工业城市，由河南省直管，洛阳市人民政府与洛阳专署同级并置。次年，洛阳县撤销，一部分并入洛阳市，其余部分划入偃师、孟津、宜阳等县。1956年，相继建成洛阳市老城区、西工区和郊区，次年成立瀍河区。1982年，经国务院批准，新成立吉利区。1986年，洛阳地区撤销，原下辖县改属洛阳市。1993年，偃师县改为偃师市。2000年6月，经国务院批准，洛阳郊区更名为洛龙区。2007年，伊洛工业园区成立，2012年 3 月改名为伊滨区；10月，洛阳经济技术开发区升级为国家级经济技术开发区。2017年2月，伊滨区与洛阳经济技术开发区融合发展，统称伊滨经开区。2021年1月，国务院批复同意撤销县级偃师市，设立洛阳市偃师区，以原偃师市的行政区域为偃师区的行政区域；撤销孟津县、洛阳市吉利区，设立洛阳市孟津区，以原孟津县、吉利区的行政区域为孟津区的行政区域。2022年，洛阳经济技术开发区与伊滨区脱离，划转至洛龙区。洛阳伊滨产业集聚区更名为洛阳伊滨科技城管委会（洛阳伊滨先进制造业开发区），洛阳市城乡一体化示范区与洛阳伊滨科技城合署办公。
至2024年年底，洛阳市辖老城区、西工区、瀍河回族区、涧西区、洛龙区、偃师区、孟津区、新安县、栾川县、嵩县、汝阳县、宜阳县、洛宁县、伊川县等7县7区。
